Zeki Velidi, 10 Aralık 1890 tarihinde Başkurdistan’da dünyaya gelmiştir. Ailesi varlıklı ve eğitimli kişiler olup annesinden Farsça, babasından ise Arapça öğrenmiştir. Ayrıca Rusça ve edebiyat üzerine de dersler almıştır. Zeki Velidi, 1902-1908 yıllarında dayısı Habib Neccar’ın da medresesinin bulunduğu Ücek’te tahsil görmüş ve burada tarihe ilgi duymaya başlamıştır. Ayrıca Başkurtların meselelerine ilgi duyan Zeki Velidi, bu meselelere daha geniş bir açıdan bakarak Türklük bilincini geliştirmiştir. Bu hususta ise Gaspıralı İsmail’in Tercüman gazetesini devamlı okuyan dayısı ve kendisinin İstanbul’dan gelen eserleri okuması etkili olmuştur.

1908 yılına gelindiğinde ise Kazan’a geçerek Kasımiye Medresesi’nde eğitimini tamamlamıştır. Burada dönemin önemli bilginleri ile tanışma fırsatı yakalamış ve kendisi de bu dönemde bazı medreselerde öğretmenlik yapmıştır. 1912 yılında ilk eseri olan Türk ve Tatar Tarihi’ni kaleme almıştır. Bu kitabı ile Yusuf Akçura ve Barthold dahil olmak üzere birçok kişinin övgüsüne mazhar olmuştur. 1913 yılında Kazan Üniversitesi tarafından kendisine fahri doktora ünvanı verilmiş ve 1914’te Rus İlimler Akademisi’nden Katanov sayesinde Fergana bölgesi ve Buhara Hanlığı’nda eski eserleri araştırmak üzere görevlendirilmiştir. 1915 yılında da Duma’ya gidecek bir heyette Başkurtları temsil etme görevini üstlenmiştir.

1917 yılındaki Bolşevik Devrimi sonrasında tutuklanmış, daha sonra hapisten kaçarak Başkurtları teşkilatlandırmaya çalışmış ve 1918’de kurulan Başkurdistan Milli Hükümeti’nde İçişleri ve Harbiye Bakanı olmuştur. Bu dönemde Lenin, Stalin, Troçki ve Sultan Galiyev ile görüşmelerde bulunmuş, ve Sovyetlerle işbirliğini bir zorunluluk olarak görmüştür. Ancak daha sonra bu işbirliğinin zararlı olduğunu fark ederek Basmacı Hareketi’ne katılmış ve Türkistan Milli Birliği Cemiyeti’ni kurmuştur. Enver Paşa’nın şehadeti sonrasında ise Türkistan Türkleri’nin ahvalini anlatabilmek için Avrupa’ya gitmek üzere yola çıkmıştır. Avrupa’da Cambridge Üniversitesi de dahil birçok üniversiteden teklif almasına rağmen Hamdullah Suphi’nin çağrısı ve bazı Türkçülerin ısrarı üzerine Türkiye’de çalışmaya karar vererek 1925’te Ankara’ya gelmiştir. 1927 yılında ise İstanbul Darülfünunu’nda göreve başlamış ve birçok araştırma yürütmüştür.

1932 yılında hakkında başlayan karalama kampanyası sonrasında doktorasını tamamlamak üzere Viyana’ya geçmiş ve sonrasında Bonn ve Göttingen Üniversiteleri’nde dersler vermiştir. 1939 yılında Hasan Ali Yücel’in daveti ile tekrar Türkiye’de çalışmaya başlamış ve İstanbul Üniversitesi’nde Umumi Türk Tarihi kürsüsünü kurmuştur. Ayrıca bu yıllarda İslam Ansiklopedisi’nde birçok maddeyi hazırlamış, Tarihte Usul, Umumî Türk Tarihine Methal ve Bugünkü Türkistan ve Yakın Mazisi eserlerini kaleme almıştır.

1944 yılında Türkçülük-Turancılık Davası’nda yargılanmış ve 15 ay hapiste kalmıştır. Ancak 1948’te üniversitedeki görevine geri dönebilmiştir. 1957’de Lahor Üniversitesi’nde misafir hocalık yapmış ve yine bu yıl Amerika’ya giderek Stanford ve Berkeley Üniversiteleri’nde araştırmalar yapmıştır. 1959 yılında yayınlanan Philologiae Turcica Fundamenta ve 1967’de basılan Türk Kültürü El-Kitabı adlı eserlerin planlayıcısı olmuştur. Hüseyin Nihal Atsız’ın da asistanlığını yaptığı ve hakkında “talebesi olmaktan iftihar ederiz” dediği Zeki Velidi Togan, 26 Temmuz 1970 tarihinde vefat etmiş ve Karacaahmet Mezarlığı’na defnedilmiştir.